在实际情况下，较大的全局图的子图可以分布在多个设备或机构之间，并且仅由于隐私限制而在本地访问，尽管它们之间可能存在链接。最近，拟议的子图联合学习（FL）方法涉及跨私人本地子图的那些缺失的链接，而分布式培训图形神经网络（GNN）。但是，他们忽略了子图中的不可避免的异质性，这是由包含全球图的不同部分的子图引起的。例如，一个子图可能属于较大的全局图中的一个社区之一。在这种情况下，天真的子图FL将从训练有异质图分布的本地GNN模型中崩溃不相容的知识。为了克服这样的局限性，我们引入了一个新的子图FL问题，即个性化的子图FL，该子图专注于相互关联的本地GNN模型的联合改进，而不是学习一个单一的全球GNN模型，并提出了一个新颖的框架，并提出了一个新型的框架，并提出了一个联合的个性化次级学习（ Fed-pub），以解决它。个性化子图FL中的一个至关重要的挑战是服务器不知道每个客户端具有哪个子图。 Fed-pub因此使用随机图作为输入来计算它们之间的相似性，并使用它们执行对服务器端聚合的加权平均。此外，它在每个客户端学习一个个性化的稀疏掩码，以选择和更新聚合参数的子图相关子集。我们考虑了非重叠和重叠子图的六个数据集中的Fed-Pub在六个数据集上的子图FL性能，我们的基本上要优于相关的基线。

我们认为，作为离散位置向量值体积功能的采样点云的属性。为了压缩所提供的位置属性，我们压缩体积函数的参数。我们通过平铺空间成块，并通过基于坐标的，或隐式的，神经网络的偏移较每个块中的函数的体积函数建模。输入到网络包括空间坐标和每个块的潜矢量。我们代表使用区域自适应分级的系数潜矢量变换在MPEG基于几何形状的点云的编解码器G-PCC使用（RAHT）。的系数，这是高度可压缩的，是速率 - 失真通过在自动解码器配置的速率 - 失真拉格朗日损失由反向传播最优化。结果由2-4分贝优于RAHT。这是第一工作由局部坐标为基础的神经网络为代表的压缩体积的功能。因此，我们希望它是适用超越的点云，例如高分辨率的神经辐射场的压缩。

We describe an end-to-end trainable model for image compression based on variational autoencoders. The model incorporates a hyperprior to effectively capture spatial dependencies in the latent representation. This hyperprior relates to side information, a concept universal to virtually all modern image codecs, but largely unexplored in image compression using artificial neural networks (ANNs). Unlike existing autoencoder compression methods, our model trains a complex prior jointly with the underlying autoencoder. We demonstrate that this model leads to state-of-the-art image compression when measuring visual quality using the popular MS-SSIM index, and yields rate-distortion performance surpassing published ANN-based methods when evaluated using a more traditional metric based on squared error (PSNR). Furthermore, we provide a qualitative comparison of models trained for different distortion metrics.

This paper presents a set of full-resolution lossy image compression methods based on neural networks. Each of the architectures we describe can provide variable compression rates during deployment without requiring retraining of the network: each network need only be trained once. All of our architectures consist of a recurrent neural network (RNN)-based encoder and decoder, a binarizer, and a neural network for entropy coding. We compare RNN types (LSTM, associative LSTM) and introduce a new hybrid of GRU and ResNet. We also study "one-shot" versus additive reconstruction architectures and introduce a new scaled-additive framework. We compare to previous work, showing improvements of 4.3%-8.8% AUC (area under the rate-distortion curve), depending on the perceptual metric used. As far as we know, this is the first neural network architecture that is able to outperform JPEG at image compression across most bitrates on the rate-distortion curve on the Kodak dataset images, with and without the aid of entropy coding.

受到正规彩票假说（RLTH）的启发，该假说假设在密集网络中存在平稳（非二进制）子网，以实现密集网络的竞争性能，我们提出了几个播放类增量学习（FSCIL）方法。 to as \ emph {soft-subnetworks（softnet）}。我们的目标是逐步学习一系列会议，每个会议在每个课程中只包含一些培训实例，同时保留了先前学到的知识。软网络在基本训练会议上共同学习模型权重和自适应非二进制软面具，每个面具由主要和次要子网组成；前者的目的是最大程度地减少训练期间的灾难性遗忘，而后者的目的是避免在每个新培训课程中过度拟合一些样本。我们提供了全面的经验验证，表明我们的软网络通过超越基准数据集的最先进基准的性能来有效地解决了几个弹药的学习问题。

先前的作品已经为神经集功能建立了固体基础，以及有效的体系结构，这些架构保留了在集合上操作的必要属性，例如对集合元素的排列不变。随后，已经确定了在保持输出上保持一致性保证的同时，依次处理任何随机设置分区方案的任何置换的能力，但已建立了网络体系结构的选项有限。我们进一步研究了神经集编码功能中的MBC特性，建立了一种将任意非MBC模型转换为满足MBC的方法。在此过程中，我们为普遍MBC（UMBC）类的集合功能提供了一个框架。此外，我们探讨了通过我们的框架实现的有趣的辍学策略，并研究了其对测试时间分配变化下的概率校准的影响。我们通过单位测试支持的证据来验证UMBC，还提供了有关玩具数据，清洁和损坏的云云分类的定性/定量实验，并在Imagenet上摊销了聚类。结果表明了UMBC的实用性，我们进一步发现我们的辍学策略改善了不确定性校准。

我们提出了Styletalker，这是一种新颖的音频驱动的会说话的头部生成模型，可以从单个参考图像中综合一个会说话的人的视频，并具有准确的音频同步的唇形，逼真的头姿势和眼睛眨眼。具体而言，通过利用预验证的图像生成器和图像编码器，我们估计了会说话的头视频的潜在代码，这些代码忠实地反映了给定的音频。通过几个新设计的组件使这成为可能：1）一种用于准确唇部同步的对比性唇部同步鉴别剂，2）一种条件顺序的连续变异自动编码器，该差异自动编码器了解从唇部运动中解散的潜在运动空间，以便我们可以独立地操纵运动运动的运动。和唇部运动，同时保留身份。 3）自动回归事先增强，并通过标准化流量来学习复杂的音频到运动多模式潜在空间。配备了这些组件，Styletalker不仅可以在给出另一个运动源视频时以动作控制的方式生成说话的头视频，而且还可以通过从输入音频中推断出现实的动作，以完全由音频驱动的方式生成。通过广泛的实验和用户研究，我们表明我们的模型能够以令人印象深刻的感知质量合成会说话的头部视频，这些视频与输入音频相符，可以准确地唇部同步，这在很大程度上要优于先进的基线。

在这项工作中，我们提出了一个具有结构性图形的新型不确定性感知对象检测框架，其中节点和边缘分别用对象及其空间语义相似性表示。具体而言，我们旨在考虑对象之间的关系，以有效地将它们背景化。为了实现这一目标，我们首先检测对象，然后测量其语义和空间距离以构建对象图，然后由图形神经网络（GNN）表示，用于完善对象的视觉CNN特征。但是，精炼CNN功能和每个对象的检测结果效率低下，可能不需要，因为其中包括不确定性低的正确预测。因此，我们建议通过将表示形式从某些对象（源）转移到有向图上的不确定对象（目标）来处理不确定的对象，而且还仅在对象上改善CNN功能，因为对象被认为是不确定的，其代表性输出来自GNN。此外，我们通过在不确定的物体上给予更大的权重来计算训练损失，以专注于改善不确定的对象预测，同时保持某些对象的高性能。我们将模型称为对象检测（UAGDET）的不确定性感知图网络。然后，我们在实验中验证了我们的大规模空中图像数据集，即DOTA，该数据集由大量对象组成，这些对象在图像中具有很小至大的对象，在该图像上，我们的对象可以改善现有对象检测网络的性能。

最近的深度学习模型在言语增强方面已经达到了高性能。但是，获得快速和低复杂模型而没有明显的性能降解仍然是一项挑战。以前的知识蒸馏研究对言语增强无法解决这个问题，因为它们的输出蒸馏方法在某些方面不符合语音增强任务。在这项研究中，我们提出了基于特征的蒸馏多视图注意转移（MV-AT），以在时域中获得有效的语音增强模型。基于多视图功能提取模型，MV-AT将教师网络的多视图知识传输到学生网络，而无需其他参数。实验结果表明，所提出的方法始终提高瓦伦蒂尼和深噪声抑制（DNS）数据集的各种规模的学生模型的性能。与基线模型相比，使用我们提出的方法（一种用于有效部署的轻巧模型）分别使用了15.4倍和4.71倍（FLOPS），与具有相似性能的基线模型相比，Many-S-8.1GF分别达到了15.4倍和4.71倍。

在本文中，我们通过利用给定数据集中的规律性来有效地介绍了一种新颖的方法来系统地解决数据集凝结问题。我们没有直接在原始输入空间中凝结数据集，而是假设数据集的生成过程，其中一组可学习的代码在紧凑的潜在空间中定义，然后是一组微型解码器，它们将它们映射到原始输入空间。通过互换组合不同的代码和解码器，我们可以大大增加具有相同参数计数的合成示例的数量，因为潜在空间要较低，并且由于我们可以假设尽可能多的解码器来捕获数据集中表示的不同样式费用微不足道。这种知识分解允许以系统的方式有效地共享综合示例之间的信息，从而在压缩比和生成的示例的质量之间进行了更高的权衡。我们通过实验表明，我们的方法通过各种基准数据集（例如SVHN，CIFAR10，CIFAR100和Tinyimagenet）在各种基准数据集上实现了新的最新记录。